Learning enabled autonomous systems provide increased capabilities compared to traditional systems. However, the complexity of and probabilistic nature in the underlying methods enabling such capabilities present challenges for current systems engineering processes for assurance, and test, evaluation, verification, and validation (TEVV). This paper provides a preliminary attempt to map recently developed technical approaches in the assurance and TEVV of learning enabled autonomous systems (LEAS) literature to a traditional systems engineering v-model. This mapping categorizes such techniques into three main approaches: development, acquisition, and sustainment. We review the latest techniques to develop safe, reliable, and resilient learning enabled autonomous systems, without recommending radical and impractical changes to existing systems engineering processes. By performing this mapping, we seek to assist acquisition professionals by (i) informing comprehensive test and evaluation planning, and (ii) objectively communicating risk to leaders.
translated by 谷歌翻译
上演的推出是一种将软件更新逐步发布到用户群体中的策略，以便加速缺陷发现而不会产生灾难性结果，例如系统中断。过去的一些研究检查了如何量化和自动化分阶段的推出，但没有同时考虑多个产品或过程指标。本文展示了通过多目标增强学习自动化分期推出的潜力，以动态平衡利益相关者的需求，例如时间来交付新功能和由于潜在缺陷而导致的失败产生的停机时间。
translated by 谷歌翻译
State-of-the-art image and text classification models, such as Convectional Neural Networks and Transformers, have long been able to classify their respective unimodal reasoning satisfactorily with accuracy close to or exceeding human accuracy. However, images embedded with text, such as hateful memes, are hard to classify using unimodal reasoning when difficult examples, such as benign confounders, are incorporated into the data set. We attempt to generate more labeled memes in addition to the Hateful Memes data set from Facebook AI, based on the framework of a winning team from the Hateful Meme Challenge. To increase the number of labeled memes, we explore semi-supervised learning using pseudo-labels for newly introduced, unlabeled memes gathered from the Memotion Dataset 7K. We find that the semi-supervised learning task on unlabeled data required human intervention and filtering and that adding a limited amount of new data yields no extra classification performance.
translated by 谷歌翻译
Proximal Policy Optimization (PPO) is a highly popular policy-based deep reinforcement learning (DRL) approach. However, we observe that the homogeneous exploration process in PPO could cause an unexpected stability issue in the training phase. To address this issue, we propose PPO-UE, a PPO variant equipped with self-adaptive uncertainty-aware explorations (UEs) based on a ratio uncertainty level. The proposed PPO-UE is designed to improve convergence speed and performance with an optimized ratio uncertainty level. Through extensive sensitivity analysis by varying the ratio uncertainty level, our proposed PPO-UE considerably outperforms the baseline PPO in Roboschool continuous control tasks.
translated by 谷歌翻译
对国际气候变化小组（IPCC）的第六次评估指出，“过去十年（2010-2019）的累积净二氧化碳排放量与剩下的11个碳预算可能会限制为1.5C（中等信心）大约相同）。”这样的报告直接培养了公众的话语，但是诸如信念和信心程度之类的细微差别常常失去。在本文中，我们提出了一个正式的帐户，以允许在抽象论证设置中使用这种信念和相关的信心来标记论证。与概率论证中的其他建议不同，我们关注对Sato分布语义的选择构建的概率推断的任务，Sato的分布语义已被证明涵盖了包括贝叶斯网络的语义在内的各种情况。从有关此类语义的大量文献中借用，我们研究了如何在考虑不确定概率的情况下在实践中处理此类任务，并与现有的概率论点的现有建议讨论联系。
translated by 谷歌翻译
在二阶不确定的贝叶斯网络中，条件概率仅在分布中已知，即概率上的概率。Delta方法已应用于扩展精确的一阶推理方法，以通过从贝叶斯网络得出的总和产物网络传播均值和方差，从而表征了认知不确定性或模型本身的不确定性。另外，已经证明了Polytrees的二阶信仰传播，但没有针对一般的定向无环形结构。在这项工作中，我们将循环信念传播扩展到二阶贝叶斯网络的设置，从而产生二阶循环信念传播（SOLBP）。对于二阶贝叶斯网络，SOLBP生成了与Sum-Propoduct网络生成的网络一致的推论，同时更加有效且可扩展。
translated by 谷歌翻译
当历史数据受到限制时，与贝叶斯网络节点相关的条件概率不确定，并且可以在经验上进行估计。二阶估计方法为估计概率和量化这些估计的不确定性提供了一个框架。我们将这些案例称为Uncer Tain或二阶贝叶斯网络。当完成此类数据时，即每个实例化都观察到所有可变值，已知有条件的概率是dirichlet分布的。本文通过使他们能够学习参数（即条件概率），通过不完整的数据来学习不确定的贝叶斯网络的当前最新方法。我们广泛评估各种方法，通过各种查询的置信界的所需和经验得出的强度来学习参数的后验。
translated by 谷歌翻译
可解释的深度学习模型的最新努力表明，基于概念的解释方法通过标准的端到端模型实现了竞争精度，并能够从图像中提取高级视觉概念的推理和干预，例如识别机翼颜色和喙长度用于鸟类分类。但是，这些概念瓶颈模型依赖于一组必要且充分的预定义概念，这对于诸如视频分类等复杂任务很棘手。对于复杂的任务，标签和视觉元素之间的关系涵盖了许多框架，例如，识别出具有各种抽象水平的鸟类飞行或捕获猎物不必要的概念。为此，我们提出了Codex，这是一个自动概念发现和提取模块，严格地构成了基于概念的视频分类的必要且充分的概念摘要集。 Codex从自然语言解释视频解释中确定了一系列复杂的概念摘要，从而需要预先定义一组无定形的概念集。为了证明我们的方法的生存能力，我们构建了两个新的公共数据集，这些数据集将现有的复杂视频分类数据集与其标签的简短，众包的自然语言解释相结合。我们的方法在自然语言中引发了固有的复杂概念摘要，以将概念 - 底层方法推广到复杂的任务。
translated by 谷歌翻译
对不确定性的深入了解是在不确定性下做出有效决策的第一步。深度/机器学习（ML/DL）已被大大利用，以解决处理高维数据所涉及的复杂问题。但是，在ML/DL中，推理和量化不同类型的不确定性的探索少于其他人工智能（AI）领域。特别是，自1960年代以来，在KRR上已经研究了信仰/证据理论，以推理并衡量不确定性以提高决策效率。我们发现，只有少数研究利用了ML/DL中的信念/证据理论中的成熟不确定性研究来解决不同类型的不确定性下的复杂问题。在本调查论文中，我们讨论了一些流行的信念理论及其核心思想，这些理论涉及不确定性原因和类型，并量化它们，并讨论其在ML/DL中的适用性。此外，我们讨论了三种主要方法，这些方法在深度神经网络（DNN）中利用信仰理论，包括证据DNN，模糊DNN和粗糙的DNN，就其不确定性原因，类型和量化方法以及其在多元化问题中的适用性而言。域。根据我们的深入调查，我们讨论了见解，经验教训，对当前最新桥接信念理论和ML/DL的局限性，最后是未来的研究方向。
translated by 谷歌翻译
日常生活的活动措施（ADL）是整体健康状况的重要指标，但难以测量诊所。使用手腕磨损的加速度计自动和准确的人类活动识别（HAR）可以实现ADL的实用和成本高效的远程监控。开发高质量Har中的关键障碍是缺乏大型标记的数据集和在将小型策级数据集培训的模型应用于现实生活中的不均匀数据的连续流时缺乏大型标记数据集和性能损失。在这项工作中，我们设计了一个自我监督的学习范例，以创建可以跨设备和主题概括的加速度计数据的强大表示。我们展示了这种代表可以使用很少的标签分离日常生活活动并实现强大的RAR准确性（在多个基准数据集上）。我们还提出了一种分割算法，可以识别突出活动的段，并在连续的现实生活数据上升高掌握。
translated by 谷歌翻译